iT邦幫忙

2024 iThome 鐵人賽

DAY 26
0
AI/ ML & Data

AI 影像處理 30天系列 第 26

[AI 影像處理 30天] [Day 26] 創意與成本:高品質視覺的預算考量 - Colab 運行成本分析

  • 分享至 

  • xImage
  •  

在追求卓越的影像合成效果時,預算往往是不可忽視的一環。延續 Day 25 我們測試開源模型 ControlCom 的主題,今天我們將深入探討如何在取得理想效果的同時,精打細算,以最少的成本達成目標。這篇文章將聚焦於 Colab 的運行成本分析,幫助你在不同的方案間做出最佳選擇。

Colab 方案選擇策略

根據 Colab (截至 2024/10) 提供的定價,使用 Colab 運算資源時,有四種付費方案可供選擇:

image.png

對於僅需短期測試模型效果的情境,「Pay As You Go」方案下的 90 天 100 運算單元就足夠應付需求。

在購買了「Pay As You Go」、「Colab Pro」或「Colab Pro+」後,這些方案均允許使用更高規格的顯卡。經過測試,我們發現 L4 Tensor Core GPU 是最易搶到的資源,其運算能力約為 10 TFLOPS,且在運行過程中相對穩定,避免了中途斷線的風險。

實際運行分析

  1. **運行過程:**因為 L4 Tensor Core GPU (一張10萬台幣) 可以穩定使用,故我們不使用 A100 GPU。在算圖時 GPU RAM 需 12 GB,故必須使用付費方案,無法取巧使用免費方案。而本次測試過程中,並非時時刻刻運算資源的需求都維持在高峰,我們發現僅在環境建置時需較多運算單元,算圖階段則每張 30 秒即完成,相較之下的費用消耗不高。

    image.png

  2. **費用方面:**在建置專案環境時,我們會需要較多的運算單元,但建置完畢後每張圖的算圖時間其實僅需 30 秒。整個測試流程約消耗 20 個運算單元,花費估計:

    (22.14/100) * 340 ~= 75.276 NTD
    

image.png

其他選擇?

除了「Pay As You Go」,我們也評估了 Colab Enterprise 在台灣地區 (asia-east1) 的定價,如下表所示:

資源類型 型號 收費金額 收費單位 預估情境 預估金額
CPU E2 $0.030306 每 vCPU/小時 1vCPU & 5hr $0.15
記憶體容量 E2 $0.00406 每 GB/小時 12.2GB & 5hr $0.244
GPU Nvidia Tesla L4 $0.7781647 每小時 5hr $3.89
磁碟 Standard provisioned space $0.048 每 GB/月 ~28GB & 5hr $0.01

除了 GPU 外,其他硬體規格選擇了足以完成任務的最低標準。整體預估使用 Colab Enterprise 的總花費約為 137 NTD (美元匯率 32),相較之下,這一選擇成本略高於「Pay As You Go」方案。

(0.15 + 0.244 + 3.89 + 0.01) * 32 = 137 NTD

適合的方案選擇

這兩種方案各有優缺點,選擇時需考量實際需求和預算:

  • 預算有限且算圖要求不高時,「Pay As You Go」方案是較為靈活的選擇。
  • 需要更強大的運算能力和更快的算圖速度時,可考慮「Colab Enterprise」,享受更高規格的硬體資源。

未來方向

根據 ControlCom 的測試結果,未來可考慮以下兩個改進方向:

  • 調整圖片輸入大小:目前使用 512*512 pixels,可以嘗試調整以評估對效能和品質的影響。
  • 修改模型解碼器:透過修改解碼器來提高細節或改變風格,進一步優化生成圖像的方式。

無論採用哪一個方案,費用都將大幅增加,因此在開始之前應仔細評估模型是否值得訓練。如果雲端服務成本過高,也可考慮地端部署,或利用 API 服務,如 Adobe 等行業領先公司提供的解決方案。總之,在進行 AI 影像處理時,創意與成本間的平衡至關重要。選擇合適的工具和資源,可以幫助你在控制預算的同時,實現高品質的視覺效果。


撰文者: Winston


上一篇
[AI 影像處理 30天] [Day 25] 掌控一切:測試開源模型 ControlCom 效果
下一篇
[AI 影像處理 30天] [Day 27] 開源模型:AnyDoor介紹
系列文
AI 影像處理 30天30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言